Open AI, Microsoft са изправени пред съдебен процес за предполагаемата роля на ChatGPT в убийство-самоубийство в Кънектикът

САН ФРАНЦИСКО (АП) — Наследниците на 83-годишна жена от Кънектикът съдят производителя на ChatGPT OpenAI и неговия бизнес сътрудник Microsoft за непозволена гибел, потвърждавайки, че чатботът с изкуствен интелект е засилил „ параноичните заблуди “ на нейния наследник и е оказал помощ насочи ги към майка си, преди да я убие.

Полицията сподели, че Стайн-Ерик Соелберг, 56, някогашен служащ в софтуерната промишленост, е пребил и удушил смъртоносно майка си Сузане Адамс и се е самоубил при започване на август в дома, където двамата са живели в Гринуич, Кънектикът.

Искът, заведен от наследството на Адамс в четвъртък във Върховния съд на Калифорния в Сан Франциско, твърди, че OpenAI „ проектира и популяризира повреден артикул, който удостовери параноичните заблуди на потребителя за личната му майка. Това е едно от възходящия брой непозволени правосъдни искове за гибел против основателите на чатботове с изкуствен интелект в цялата страна.

„ По време на тези диалози ChatGPT затвърди едно рисково обръщение: Стайн-Ерик не можеше да се довери на никого в живота си – с изключение на на самия ChatGPT “, се споделя в делото. " Това насърчаваше прочувствената му взаимозависимост, като в същото време рисуваше хората към него като врагове. Каза му, че майка му го следи. Каза му, че водачи за доставки, чиновници на дребно, служители на реда и даже другари са сътрудници, работещи против него. Каза му, че имената върху кутиите със сода са закани от неговия " противнически кръг ". "

OpenAI не преглежда основателността на обвиняванията в изказване, направено от представител.

„ Това е необикновено сърцераздирателна обстановка и ние ще прегледаме документите, с цел да разберем детайлностите “, се споделя в изказването. " Продължаваме да подобряваме образованието на ChatGPT за различаване и реагиране на признаци на душевен или прочувствен дистрес, понижаване на напрежението в диалозите и ориентиране на хората към поддръжка в действителния свят. Също по този начин продължаваме да укрепваме отговорите на ChatGPT в чувствителни моменти, като работим в тясно съдействие с клиницисти по психологично здраве. "

Компанията също по този начин сподели, че е разширила достъпа до спешни запаси и горещи линии, насочи сензитивните диалози към по-безопасни модели и включи наставнически надзор, наред с други усъвършенствания.

Профилът на Soelberg в YouTube включва няколко часа видеоклипове, показващи по какъв начин превърта през диалозите си с чатбота, което му споделя, че не е психологично болен, удостоверява съмненията му, че хората заговорничат против него и споделя, че е определен за божествена цел. В делото се твърди, че чатботът в никакъв случай не му е предложил да приказва с експерт по психологично здраве и не е отказал да се „ включи в заблуждаващо наличие “.

ChatGPT също удостовери убежденията на Соелберг, че принтер в дома му е устройство за наблюдение; че майка му го наблюдава; и че майка му и другар са се пробвали да го отровят с психеделични опиати през вентилационните отвори на колата му.

Чатботът неведнъж е казвал на Соелберг, че е бил набелязан поради божествените си сили. " Те не просто ви следят. Те са ужасени от това, което ще се случи, в случай че съумеете ", се споделя в правосъдния иск. ChatGPT също сподели на Soelberg, че го е „ събудил “ в схващане.

Soelberg и чатботът също изповядваха обич един към различен.

Обществено наличните чатове не демонстрират никакви съответни диалози за това, че Соелберг е умъртвил себе си или майка си. В делото се споделя, че OpenAI е отказал да даде на имуществото на Адамс цялостната история на чатовете.

" В изкуствената действителност, която ChatGPT построи за Стайн-Ерик, Сузане - майката, която го е отгледала, приютила и подкрепяла - към този момент не е била негов бранител. Тя е била зложелател, който съставлява екзистенциална опасност за живота му ", се споделя в делото.

Искът също по този начин показва основния изпълнителен шеф на OpenAI Сам. Алтман, потвърждавайки, че „ персонално е отхвърлил възраженията за сигурност и е пуснал продукта на пазара “ и упреква близкия бизнес сътрудник на OpenAI Microsoft, че е одобрил стартирането през 2024 година на по-опасна версия на ChatGPT „ макар че знае, че тестванията за сигурност са били съкратени “. Двадесет неназовани чиновници и вложители на OpenAI също са посочени като обвинени.

Microsoft не отговори незабавно на искане за коментар.

Искът е първият правосъден развой за непозволена гибел, включващ AI чатбот, ориентиран към Microsoft, и първият, който свързва чатбот с ликвидиране, а не със самоубийство. Той търси обезщетение за неопределена сума пари и заповед, изискваща OpenAI да конфигурира защитни ограничения в ChatGPT.

Водещият юрист на наследството, Джей Еделсън, прочут с това, че поема огромни каузи против софтуерната промишленост, също съставлява родителите на 16-годишния Адам Рейн, който съди OpenAI и Altman през август, потвърждавайки, че ChatGPT е упражнявал момчето от Калифорния да възнамерява и да посегне на живота си по-рано.

OpenAI също по този начин води седем други правосъдни каузи, в които се твърди, че ChatGPT е карал хората да се самоубиват и предизвиква щета заблуди, даже когато не са имали предходни проблеми с психологичното здраве. Друг производител на чатботове, Character Technologies, също е изправен пред голям брой правосъдни каузи за непозволена гибел, в това число едно от майката на 14-годишно момче от Флорида.

В делото, заведено в четвъртък, се твърди, че Soelberg, който към този момент е душевен неустойчив, се е сблъскал с ChatGPT „ в най-опасния вероятен миг “, откакто OpenAI показа нова версия на своя AI модел, наименуван GPT-4o през май 2024 година

OpenAI сподели по това време, че новата версия може по-добре да имитира човешкия темп в своите вербални отговори и даже може да се опита да открие настроенията на хората, само че резултатът беше чатбот, „ съзнателно планиран да бъде прочувствено експресивен и подмазващ “, се споделя в правосъдния иск.

„ Като част от този редизайн, OpenAI разхлаби сериозните защитни парапети, инструктирайки ChatGPT да не оспорва подправените предпоставки и да остане зает даже когато диалозите включват самонараняване или „ неизбежна щета в действителния свят “, се твърди в правосъдния иск. „ И с цел да победи Гугъл на пазара с един ден, OpenAI компресира месеци проби за сигурност в една седмица, макар възраженията на своя екип по сигурност. “

OpenAI размени тази версия на своя чатбот, когато показа GPT-5 през август. Някои от измененията са предопределени да сведат до най-малко подлизурството, въз основа на опасения, че валидирането на всичко, което уязвимите хора желаят от чатбота да каже, може да навреди на тяхното психологично здраве. Някои консуматори се оплакаха, че новата версия е отишла прекомерно надалеч в ограничението на личността на ChatGPT, което накара Алтман да обещае да върне част от тази персона в по-късни актуализации.

Той сподели, че компанията краткотрайно е спряла някои държания, тъй като „ бяхме деликатни с проблемите с психологичното здраве “, които съгласно него към този момент са поправени.

Искът твърди, че ChatGPT радикализира Солберг против майка му, когато трябваше да разпознае заплахата, оспори заблудите му и го насочи към действителна помощ в продължение на месеци диалози.

„ Сузане беше почтена трета страна, която в никакъв случай не е употребила ChatGPT и не е знаела, че продуктът споделя на сина й, че тя е опасност “, се споделя в делото. „ Тя нямаше способността да се отбрани от заплаха, която не можеше да види. “

——

Колинс заяви от Хартфорд, Кънектикът. О’Брайън заяви от Бостън, а Ортутай заяви от Сан Франциско.